RECAP: Feedback-Driven Streaming Semantic User Profiles for Short-Video Recommendation
RECAP：反馈驱动的流式语义用户画像优化
🧭 流式用户画像 · 闭环 GRPO 优化 ★ 深度解读
University of Science and Technology of China · Kuaishou Technology · China Academy of Cyber
闭环框架通过清洗隐式反馈训练双塔评估器，用GRPO优化流式结构化用户画像生成，提升推荐对齐度
📌 工作参考价值（4 点）
- 将用户画像维护为有界结构化状态：LLM 只产出语义差异（确认已有兴趣、新兴趣），确定性状态机管理生命周期、容量和强度衰减。电商/广告场景中用户兴趣同样流式变化，这种解耦保证了画像状态可追踪、可解释，避免 LLM 输出不稳定元数据，工程落地性强。
- 从隐式反馈构建高质量奖励：通过 LLM pairwise judge 过滤行为对，只保留高置信语义一致的正负样本，再训练双塔评估器作为奖励模型。这比直接使用排序分或原始播放/跳过标签更干净，适合业务中缺乏显式语义偏好的场景，可用于优化文案生成或推送消息筛选。
- GRPO 优化 LLM 画像更新器：用冻结的双塔评估器计算逐块画像更新的奖励，配合格式惩罚和多样性惩罚（如证据重叠惩罚），在 SFT 基础上进一步对齐下游任务。该范式可迁移至对话策略或搜索词推荐的在线优化，利用离线日志安全训练。
- 流式分块并行训练：长行为历史分块，SFT 预计算前缀画像，每块独立优化，大幅降低序列计算开销，适合大规模用户行为流的工业训练。